Az iparág vezetői a fejlesztések lassítását javasolják, mert az AI-k egyre önállóbban írják a kódot
Az Anthropic, az OpenAI és a Google DeepMind szerint AI-rendszereik egyre nagyobb szerepet vállalnak az új generációk fejlesztésében; az Anthropic szerint a kódbázisuk több mint 80 százalékát a Claude írja, míg kritikusok azt mondják, ez inkább gyorsabb kódolás, nem autonóm önfejlesztés.
Az iparág vezető szereplői nyíltabban beszélnek arról, hogy AI-rendszereik már meghatározó részben részt vesznek a következő generációk fejlesztésében. Az Anthropic közölte, hogy kódbázisuk több mint 80 százalékát a Claude írja, és hogy a kutatási munka egyre nagyobb hányadát végzik önállóan AI-ügynökök.
Mit tudunk
Az Anthropic, az OpenAI és a Google DeepMind ezt a folyamatot a rekurzív önfejlesztés mechanizmusával kapcsolják össze. Az Anthropic vezérigazgatója és az OpenAI kutatási vezetője – írta a forrás – a fejlesztések lassítását sürgeti, mert szerintük az ellenőrzési és biztonsági képességek nem tartanak lépést a gyorsuló fejlődéssel.
Ellenvélemény
Kritikusok szerint a nyilvánosan hivatkozott magas arányok mögött jelenleg elsősorban gyorsabb kódolás áll, és az AI-ügynökök a nyílt végű kutatási feladatokban még jelentősen alulteljesítenek, írja a Portfolio.
